Найдено записей: 4
Google AI представил VaultGemma 1B — открытую модель на 1 млрд параметров, обученную с дифференциальной приватностью, которая подтверждает практическую возможность масштабного приватного предобучения
Meta AI и Университет Карнеги-Меллона представили UMA — новое семейство универсальных моделей для атомных симуляций, обеспечивающее высокую точность и скорость без дополнительной настройки.
Meta и партнёры разработали новую методику для точного измерения запоминания языковых моделей, показав, что GPT хранит около 3,6 бит на параметр, и предоставили важные инсайты о различии между запоминанием и обобщением.
Исследователи из Shanghai AI Laboratory предложили энтропийные законы масштабирования и новые методы для преодоления коллапса исследования в обучении с подкреплением больших языковых моделей, достигнув заметного улучшения результатов.